Send a SCOUT First: Pre-hoc Reasoning for Adaptive Detector Allocation in Prompt-Injection Defense
SCOUT：基于事前推理的自适应检测器分配防御提示注入
🧭 提示注入防御 · 自适应检测器分配与路由 ★ 深度解读
UC San Diego · University of Illinois Urbana-Champaign
SCOUT 通过预测各检测器对每个请求的可靠性与延迟，动态分配轻量检测器并按需升级至 LLM 法官，实现可控的安全-效用权衡
📌 工作参考价值（4 点）
- 多检测器动态分配架构：可借鉴"指纹+预测器"的轻量路由思路，为电商推荐系统的多模型服务（如不同召回、排序模型组合）建立自适应调度，根据请求特征选择最优模型子集，避免昂贵的全模型调用。
- 成本-质量可预测控制：通过事前估计延迟和正确性并绑定单一阈值，可实现服务等级协议（SLA）管理，如限时延迟预算，自动选择满足延迟约束下最可靠的模型组合，适用于在线推理的时序控制。
- 异质模型池的无缝扩展：新检测器仅需在锚点集上记录行为即可加入路由，无需重训练路由策略，该模式可直接迁移到多模型服务中，降低新增模型的上线成本。
- 风险分级与升级机制：在 Agent 工作流中，可将不确定请求升级至更强大的模型（类 LLM 法官），平衡安全与成本，适用于高敏感对话、交易风控等场景。